相同轨迹,不同知识:面向搜索 Agent 的信息状态感知 On-Policy 蒸馏
🧭 搜索 Agent 的 on-policy 蒸馏与过程监督 ★ 深度解读
Beijing Institute of Technology · Huawei
提出 ISA-Distill,按学生状态的事实可恢复性加权 fact-use 与 evidence-seeking 双视图反馈,纠正 teacher 特权信息偏差
📌 工作参考价值(4 点)
- 在电商搜索/推荐 Agent 的 RL 过程监督中,不要把 gold answer 或完整 evidence 直接塞给 teacher;可增加一个“学生侧事实可恢复性”估计:用 frozen policy 对 value-masked probe 采样 32 次,算 mean token NLL,再校准为 k∈[0,1]。按 k 加权“已知事实利用”和“缺失证据获取”两个 teacher 视图,训练期仅增加约 4.3% 开销,就能缓解多跳商品问答中的 search 不足与过早作答。
- 对多跳商品属性问答、活动规则查询、商品对比/导购等任务,可按 recoverability 动态分配 search budget:事实已知时少搜,事实缺失时多搜;论文经验是单跳调用 -7.21%、多跳 +2.94%,整体 calls 更省且准确率提升。
- 过程监督无需覆盖全轨迹 token:只对 <search> tag + query、<conclusion> tag + factual assertion 等关键 span 做有界 local correction,监督 token 仅约 11.32% 也能获得稳定提升,适合预算受限的在线训练链路。
- 若发现蒸馏后的推荐/搜索 Agent 搜索次数不足或过早停止,可做 paired evidence utility 诊断:给 teacher 加 gold fact,观察其对 search token score 的变化;positive-utility search 被大幅降分即存在 information-state mismatch,可引入 recoverability-aware 修正。
DeFT-RAG:将多跳问题分解为带可复用答案的自包含子问题
🧭 多跳 RAG 子问题分解与缓存复用
University of Texas at Dallas
DeFT-RAG 用自包含子问题分解、规则化状态跟踪和 QA 缓存复用,提升多跳 RAG 准确率并降低 LLM 调用成本
📌 工作参考价值(3 点)
- 在电商客服或商品知识问答中,把多跳问题拆成“自包含”子问题,每个子问题显式带出所有实体,避免让 LLM 自己规划依赖图;可显著减少状态跟踪和错误传播。
- 将“哪些已答、下一步该问什么”等状态更新从 LLM 中剥离,用规则表维护 QA 状态,再用轻量决策模型做 yes/no 判断,能大幅降低 LLM token 消耗和推理延迟。
- 缓存跨请求的 QA 对,遇到语义相同的子问题直接复用答案,适合推荐系统中用户高频重复的子查询(如商品属性、活动规则),可在不牺牲准确率的前提下减少 12%+ 的 LLM 调用。
PARSER:长上下文LLM智能体的并行读取与深度推理解耦
🧭 长上下文多智能体并行阅读与推理
The Chinese University of Hong Kong
解耦阅读与推理,并行子代理读全文,主导代理迭代scatter-gather深度推理,长上下文QA大幅提升且延迟降低11倍
📌 工作参考价值(4 点)
- 解耦阅读与推理:用多个轻量 subagent 并行读取长文档 chunk 并返回证据,lead agent 只做深度推理,可迁移到电商场景处理海量商品详情、用户评论、政策文档等长文本,避免顺序阅读延迟,适合在线服务。
- RL 只优化 lead agent,subagents 冻结,显著降低训练成本;业务中可复用:固定检索/抽取模块,用强化学习训练策略/推理模块,如商品对比、复杂推荐解释生成。
- 对证据位置、顺序、距离鲁棒,适用于证据分散的场景(如多个用户评价中找关键信息、跨文档商品属性对比),减少因文档顺序引起的性能波动。
- 迭代 scatter-gather 的查询生成机制可借鉴:每一轮基于已有证据生成更深查询,逐步聚焦关键信息,可用于多轮对话式推荐或搜索 query 细化。
CoinRAG:面向长上下文RAG的细粒度信息块KV缓存复用
🧭 KV缓存复用 · 细粒度信息块 · 低延迟RAG ★ 深度解读
University of California, Santa Barbara · Hanbat National University
通过离线提取细粒度信息块并复用其上下文KV缓存,在低延迟预算下显著提升多跳问答准确率
📌 工作参考价值(4 点)
- 细粒度信息块离线提取与缓存复用:在电商/内容推荐中,可对商品描述或文档预先提取关键事实块并缓存KV,在线仅加载所需片段,大幅降低预填充延迟,适配严格的SLA。
- 两阶段检索缩小候选范围:先粗粒块召回,再在块内针对查询做细粒度块排序,可迁移到多路召回或Rerank场景,减少噪声同时提升效率。
- 位置对齐实现非连续缓存拼接:利用RoPE旋转偏移对齐来自不同块的缓存片段,保持紧凑的连续位置编码,减少内存占用并加速解码,适用于动态组合多种证据的生成式推荐或广告文案生成。
- 块感知微调(nugget‑aware fine‑tuning):在训练中直接注入拼接的非连续缓存结构,能大幅缩小训练‑推理偏差,类似方法可用于在业务中微调模型以接受结构化的检索增强输入,如structured prompt+商品属性片段。
面向搜索Agent的图结构化行动空间与信用分配框架
🧭 结构化搜索Agent · 行动空间重塑 ★ 深度解读
National University of Defense Technology
用有限动作菜单替代自由形式查询,消除检索等价崩溃,并在同一状态下进行结构化信用分配,训练更稳定的RL搜索Agent
📌 工作参考价值(4 点)
- 将自由文本检索转换为离散菜单选择(如词条、属性、类目),可避免策略优化中的检索等价崩溃,适用于电商搜索推荐中的多步推理agent。
- 利用图形结构(实体-句子图)提供可预览的动作替代方案,实现局部对比信用(frontier-relative advantage),无需额外采样就能获得同状态下动作相对价值,可用于推荐系统的多步决策。
- 启用信用传播通过依赖图回溯,将下游收益分配给早前的桥接动作,能有效处理多跳推荐/对话中的延迟奖励问题,且计算开销低(仅增加9~11%),适合工业部署。
- 整体框架(菜单+SNC)与RL算法无关,可灵活集成到现有PPO/GRPO训练流程中,且图构建完全程序化(零LLM成本),为工业级搜索/推荐agent优化提供了高效方案。
基于 Token 共现图的轻量高效 GraphRAG 框架
🧭 Token 共现图高效 GraphRAG
Università Politecnica delle Marche, Ancona, Italy · Università di Modena e Reggio Emilia, Modena, Italy
用 token 滑动窗口共现构造 KG 取代 LLM 抽取,实现多跳推理 RAG 的索引与推理开销大幅降低
📌 工作参考价值(4 点)
- 电商搜索查询扩展:用滑动窗口统计商品标题或查询日志的 token 共现,低成本构建词项联系图,辅助召回阶段的 query 扩展或相关性特征,替代繁重的实体识别链路。
- 多轮交互式推荐:迭代实体驱动的检索策略可迁移至多轮对话推荐,从已召回商品或上下文抽取桥接属性(类目、品牌等)逐步精炼检索,提升复杂需求满足率。
- 长尾知识构建:在攻略、搭配推荐等场景,需要从多篇内容拼接证据,可借鉴无 LLM 的共现图快速索引文档段落,通过神经重排序确保证据链准确,同时控制在线推理延迟。
- 工程落地降本:方法省去了 LLM 抽取实体和关系的高频调用,索引时间、推理延迟和 prompt 长度显著降低,适合对成本和延迟敏感的生产环境直接复用。
超越并行采样:智能搜索代理的多样化查询初始化
🧭 Agent 搜索 · 查询多样化 ★ 深度解读
Carnegie Mellon University · Instituto Superior Técnico · INESC-ID · NOVA LINCS · NOVA School of Science and Technology
提出训练无关的首轮查询多样化方法 DivInit,通过 MMR 从生成池中选择多样性查询,解决并行搜索代理的锚定坍缩问题。
📌 工作参考价值(4 点)
- 在 Agent 搜索或对话式购物助手中,首轮生成的查询多样性对后续检索路径影响巨大;可将多路独立生成改为单次生成候选池 + MMR 选择,避免锚定坍缩,提升并行采样的有效性。
- 方法无需训练、即插即用,只需修改推理时的首轮查询生成逻辑,且总 LLM 调用次数从 kT 降至 1+k(T-1),在中小模型上可降低延迟和成本。
- 消融表明首轮多样性已足够维持轨迹分离,后续轮次无需额外干预,简化工程实现。
- 对于电商搜索中的 Agent 多轮交互,可主动设计首轮查询覆盖不同维度(品牌、价格、功能等),提高最终找到满意商品或信息的概率。
操作子一致性:一种用于LLM组合推理故障的无标签信号
🧭 LLM组合推理一致性评估 ★ 深度解读
Incubilate · University of Cambridge · Allen Institute for Artificial Intelligence
提出操作子一致性(OC)作为无标签信号,检测LLM直接回答与分解重组回答的不一致,跨模型准确率高度相关且互补于采样基线的选择性预测
📌 工作参考价值(4 点)
- 在Agent多步推理中,增加操作子一致性检查:若模型对同一问题的直接回答与按自身分解步骤组合后的回答不一致,则标记为不可信,用于选择性预测或触发人工复核
- 对于电商场景中需要组合多个子查询的任务(如“查找符合条件A且B的商品”),可将复杂查询分解为子查询,分别获取结果后重组,对比直接查询结果,利用OC分数作为置信度特征输入到重排序或路由模块
- 该信号本身无需标签,只需3次推理调用,可与现有的采样多样性信号(如自洽性、语义熵)简单融合,通过逻辑回归等轻量校准器提升整体信心估计,适合生产环境中低成本实施
- 在生成式推荐中,可以利用操作子一致性验证多跳推理的中间步骤,例如验证推荐解释链的逻辑连贯性,作为事实一致性检查的补充
TASR:迭代检索的无训练自适应停止规则
🧭 迭代RAG · 无训练停止策略
San Diego State University · James Silberrad Brown Center for AI · Stanford University · Google DeepMind
提出一个固定的停止谓词,通过重复答案和校准后的logit margin阈值,无需训练就能减少RAG中不必要的检索轮次
📌 工作参考价值(4 点)
- 可直接在现有RAG管线中插入一行代码作为停止条件:重复前轮归一化答案且 isotonically calibrated logit margin > 0.25。对电商问答、多跳商品查询等场景,能在不损失太多精度的情况下大幅降低检索调用次数。
- 发现RLHF调优模型的verbalized置信度极度塌缩(96.5%输出最高分),而logit margin具有44倍的类条件分离度,这提示在依赖LLM自信度进行决策(如Agent中断、推荐解释可信度)时,应避免使用提示词直接索取的置信度分数,转向logit-level信号。
- 通过固定阈值实现跨模型、检索器、语料库的零次迁移,无需针对每个新模型或任务重新训练停止策略,降低了维护成本。对于多智体框架中调用外部工具的轮次控制,可以借鉴这种简单启发式规则作为默认基线。
- 论文从381个候选规则中筛选出Pareto最优规则,这种穷举评估再选择的范式,可以用来为其他agent决策点(如何时触发重排序、何时退出对话)设计低成本、可解释的启发式策略。